Najstarsze szczątki mszaków znamy z górnego dewonu. Ich przodków należałoby prawdopodobnie szukać o całą epokę wcześniej – w górnym sylurze, kiedy kształtowały się główne linie rozwojowe roślin. Prawdopodobnie były to ryniofity, mające pierwotnie izomorficzną przemianę pokoleń. W przeciwieństwie do pozostałych roślin, w linii rozwojowej prowadzącej do mszaków sporofit wyrastający z zapłodnionej komórki jajowej nie usamodzielniał się i wrastał w gametofit, od którego pobierał wodę] oraz związki organiczne. Ostatecznie przestał samodzielnie przeprowadzać fotosyntezę i stał się prawie całkowicie zależny od gametofitu.